查看原文
其他

英伟达推首个认证系统,一面为AI普及,一面为AI统治力

芯基建 2022-12-30

The following article is from 雷锋网 Author 包永刚

AI被应用需要一个安全、可靠、高速并且能够有效扩展的基础设施。

 作者 | 包永刚 

雷锋网消息,本周三,英伟达推出其首个认证系统,这个系统的推出源于领先企业对AI日益增长的需求,目的是为了帮助更多企业更方便的应用AI以及应对日益复杂的AI模型。这个看起来顺理成章的认证系统如果被广泛接受,将为英伟达在AI时代的领导力打下更加坚实的基础。


认证系统的价值

AI已经在众多领先的公司中广泛应用,并且取得了不错的效果。比如福特使用生成式对抗网络生成测试自动驾驶汽车所需的数据;美国运通使用最新的AI模型进行实时欺诈检测;达美乐使用AI改进其每年30亿份披萨订单完成时间的预测;阿里巴巴的淘宝以及百度搜索引擎都在通过推荐系统促成更多交易以及提供更准确的搜索结果。
随着传统行业数字化的推进,越来越多公司将采用AI。市场研究机构Gartner的数据显示,目前37%的企业机构在生产中使用了AI,预计到2024年这一比例将翻倍至75%。
AI应用翻倍的一个关键是数据量的迅速增加。根据IDC的预测,2015年到2025年,数据将以每年25%的速度增长。据悉,零售巨头沃尔玛每小时要处理超过2.5PB的数据。
整体而言,筛选数据的AI模型过去5年规模增长了近3万倍,这不仅推动了对加速计算的需求,也让数据中心和网络边缘的网络流量呈指数级增长。因此,想要应用AI的企业需要一个安全、可靠、高速并且能够有效扩展的基础设施。
当然,这个AI基础设施还要有足够的易用性和灵活性。
英伟达NGC产品经理Adel El-Hallak说:“我们首个认证系统的推出源于企业对AI关注的日益增加。英伟达的认证系统是为企业提供AI所需的性能、可编程性和安全吞吐量。”


英伟达认证系统有哪些认证?

为了通过英伟达的认证,系统需要接受从使用单GPU部分性能的任务到多计算节点的工作负载测试,也就是具有良好的可扩展性。并且,认证系统需要经过优化,能够运行英伟达GPU优化应用中心NGC目录中的AI应用。
NGC是英伟达一个不断扩大的软件开发套件中心,可以将AI引入医疗健康(Clara)和机器人(Isaac)等垂直市场。此外,NGC包含帮助企业在推荐系统(Merlin)和智能视频分析(Metropolis)等新兴用例中起步的框架。
具体而言,英伟达认证系统必须通过以下测试:
  • 深度学习训练和推理
  • 机器学习算法
  • 智能视频分析
  • 网络和存储卸载
这意味着,通过英伟达认证系统,每家公司都能使用英伟达AI计算机背后相同的硬件和软件。
英伟达发布认证系统的同时,首批通过认证的服务器就开始供货,这些带有英伟达认证系统标识的服务器来自戴尔科技、技嘉、慧与、浪潮和超微。截至目前,来自6家系统制造商的14台服务器已通过认证。至少有11家系统制造商的近70个系统参与了这一认证计划。
据了解,通过英伟达认证的数据中心服务器内置8个A100 GPU和高速InfiniBand或以太网网卡。还有为网络边缘运行AI量身定制的主流AI系统。
OEM厂商使用英伟达Mellanox电缆、交换机和网卡(如ConnectX-6 InfiniBand或以太网网卡和BlueField-2 DPU)的系统进行认证。能够保证低延迟与高吞吐量外,这些网卡还支持从启动时的硬件信任根,到应用连接追踪等多层网络安全措施。
Adel El-Hallak强调,客户可以根据已有的产品或需求选择Mellanox电缆、交换机和网卡,认证的关键还是为购买系统的客户提供最佳的设计范例。
还值得关注的是,所有英伟达认证系统都可以提供涵盖整个软件堆栈的企业级支持,包括对开源代码的支持。这是为了能够让垂直市场的企业也能迅速使用AI。


英伟达未来的AI统治力

无论是市场研究机构的数据,还是在具体场景中的使用,都表明AI的应用仍处于早期阶段。随着数据量的快速增长以及多个行业的数字化转型,AI的重要性会越来越明显。此时,对于已经大量应用AI的公司,越来越意识到为满足AI需求在提升算力时网络的重要性。
英伟达在2019年以69亿美元收购了Mellanox,在其优势的GPU之外增加了网络产品,进一步提升在数据中心的优势。前面提到,虽然英伟达认证系统并非只能使用Mellanox电缆,但使用Mellanox 8700 HDR 200G InfiniBand交换机或Mellanox SN3700以太网交换机的系统均已获得认证。
可以预期,使用英伟达GPU加Mellanox的系统会在认证系统中占有不小比例。
性能和可拓展性满足已经应用AI公司的同时,英伟达认证系统统一的软件栈和灵活性也能够吸引不少寻求AI解决的公司。
对于这些公司而言,容易购买到,易于使用以及具有灵活性非常重要。英伟达认证系统与领先的OEM合作,在软件和硬件层面的特别优化都满足需求,在实际应用中的难度也将小于自己组建一个AI系统的难度。
如果英伟达的认证系统被广泛应用,英伟达在AI时代的优势将从GPU领导的AI云端训练进一步扩展至更多应用,随着AI的发展影响力逐步增加,英伟达有可能一步步统治AI市场。


往期推荐


您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存